Les écrivains de science-fiction et les chercheurs en intelligence artificielle craignent depuis longtemps la machine qu’on ne peut pas éteindre. L'histoire ressemble à ceci : une puissante IA. est développé. Ses concepteurs sont ravis, puis inquiétés, puis terrifiés. Ils vont débrancher la prise, seulement pour apprendre l'IA. a copié son code ailleurs, peut-être partout.
Gardez cette histoire à l’esprit un instant.
Deux événements marquants se sont produits dans A.I. ces dernières semaines. L’un d’eux dont vous avez entendu parler. L'organisation à but non lucratif qui régit OpenAI, le créateur de ChatGPT, a licencié Sam Altman, le directeur général de l'entreprise. La décision était inattendue et largement inexpliquée. "M. Le départ d’Altman fait suite à un processus d’examen délibératif du conseil d’administration, qui a conclu qu’il n’était pas toujours franc dans ses communications avec le conseil d’administration, entravant sa capacité à exercer ses responsabilités », peut-on lire dans un communiqué énigmatique.
Beaucoup pensaient qu’Altman avait menti au conseil d’administration sur les finances ou les données de sécurité d’OpenAI. Mais Brad Lightcap, un dirigeant d'OpenAI, a déclaré aux employés qu'aucune violation de ce type ne s'était produite. "Nous pouvons affirmer avec certitude que la décision du conseil d'administration n'a pas été prise en réponse à des malversations ou à quoi que ce soit lié à nos pratiques financières, commerciales, de sûreté ou de sécurité/confidentialité", a-t-il écrit. "Il s'agissait d'une rupture de communication entre Sam et le conseil d'administration."
Au cœur d’OpenAI se trouve – ou était peut-être – une mission. I.A. C’était une technologie trop puissante pour être contrôlée par des sociétés à but lucratif ou par des États en quête de pouvoir. Il devait être développé par une organisation, comme le dit la charte d’Open AI, « agissant dans le meilleur intérêt de l’humanité ». OpenAI a été conçu pour être cette organisation. Elle a commencé sa vie comme une organisation à but non lucratif. ...
[Courte citation de 8% de l'article original]